1
Инженерия промптов: основной интерфейс генеративного ИИ
AI011Lesson 2
00:00

Основы инженерии промптов

Инженерия промптов (ИП) — это процесс проектирования и оптимизации текстовых входных данных для направления больших языковых моделей (БЯМ) на получение качественных и согласованных результатов.

1. Определение интерфейса

Что: Он выступает в качестве основного интерфейса «программирования» для генеративного ИИ.
Почему: Он переводит взаимодействие с непредсказуемым текстовым прогнозированием на целенаправленное выполнение структурированных инструкций.

2. Основы моделей

  • Базовые БЯМ: Обучены исключительно предсказанию следующего токена на основе статистических связей в огромных наборах данных, максимизируя вероятность $P(w_t | w_1, w_2, ..., w_{t-1})$.
  • БЯМ, настроенные по инструкциям: Настроены с помощью обучения с подкреплением с участием человека (RLHF), чтобы явно выполнять конкретные указания и действовать как полезные помощники.

3. Структура эффективного промпта

Как: Эффективный промпт обычно содержит:

  • Инструкция: Конкретное действие, которое требуется выполнить.
  • Основное содержание: Целевые данные для обработки.
  • Дополнительное содержание: Параметры, форматирование или ограничения (для решения проблем стохастичности и галлюцинаций).
Реальность токенизации
Модели не читают слова; они обрабатывают токены—меньшие единицы текстовых последовательностей, используемые для расчета статистических вероятностей.
prompt_structure.py
TERMINALbash — 80x24
> Ready. Click "Run" to execute.
>
Question 1
What is the primary difference between a Base LLM and an Instruction-Tuned LLM?
Base LLMs only process code, while Instruction-Tuned LLMs process natural language.
Instruction-Tuned models are refined through human feedback to follow specific directions, whereas Base LLMs focus on statistical token prediction.
Base LLMs use tokens, but Instruction-Tuned LLMs read whole words at a time.
There is no difference; they are two terms for the exact same architecture.
Question 2
Why is the use of delimiters (like triple backticks or hashes) considered a best practice in prompt engineering?
They reduce the token count, making the API call cheaper.
They force the model to output in JSON format.
To separate instructions from the content the model needs to process, preventing 'separation of concerns' issues.
They increase the model's temperature setting automatically.
Challenge: Tutor AI Constraints
Refining prompts for educational safety.
You are building a tutor-style AI for a startup. The model is currently giving away answers too quickly and sometimes making up facts when it doesn't know the answer.
AI Tutor Interface
Task 1
Implement "Chain-of-thought" prompting in the system message to prevent the AI from giving away answers immediately.
Solution:
Instruct the model to: "Work through the problem step-by-step before providing the final answer. Do not reveal the final answer until the student has attempted the steps."
Task 2
Apply an "out" to prevent fabrications (hallucinations) when the AI doesn't know the answer.
Solution:
Add the explicit instruction: "If you do not know the answer based on the provided text or standard curriculum, state clearly that you do not know."